Lãnh thổ của Hạt Đại diện Tông tòa ban đầu nằm trong Hạt Đại diện Tông tòa Galla, và đã được tách ra thành một Hạt Phủ doãn Tông tòa bởi Giáo hoàng Piô IX vào ngày 21/1/1875. Vào ngày 25/4/1888, Giáo hoàng Lêô XIII thành lập Hạt Đại diện Tông tòa Aden, với tòa giám mục nằm tại Yemen. Vào ngày 28/6/1889, tên đã được đổi thành Hạt Đại diện Tông tòa Ả Rập, quản lí các quốc gia nằm trên bán đảo Ả Rập và các vùng lân cận: Bahrain, Oman, Ả Rập Saudi, Qatar, Các Tiểu vương quốc Ả Rập Thống nhất, Somalia và Yemen.[9]

Vào ngày 29/6/1953, Hạt Đại diện Tông tòa Kuwait (sau này trở thành Hạt Đại diện Tông tòa Bắc Ả Rập) được tách ra từ Hạt Đại diện Tông tòa. Năm 1973, tòa giám mục của Hạt Đại diện Tông tòa được chuyển từ Aden đến Nhà thờ chính tòa Thánh Giuse ở Abu Dhabi.[10] Năm 2011, vùng quản lí của Hạt Đại diện Tông tòa giảm xuống chỉ còn vùng Oman, Các Tiểu vương quốc Ả Rập Thống nhất và Yemen.

Từ năm 1916, Hạt Đại diện Tông tòa đã nằm dưới sự quản lí của Dòng Capuchin có nguồn gốc tại Firenze.[9]